Hoàng Đan sinh ra ở xã Nghi Thuận, huyện Nghi Lộc, tỉnh Nghệ An trong một gia đình có truyền thống quân sự lâu đời, nhiều thế hệ đỗ đạt ra làm quan võ, làm thầy thuốc. Theo gia phả họ Hoàng ông là hậu duệ đời thứ 21 của danh tướng đời nhà Trần Hoàng Tá Thốn, hiệu Sát Hải đại Vương; hiện ở huyện Yên Thành vẫn còn đền thờ. Thân sinh của ông là Hoàng Văn Hệ; mẹ là Đặng Thị Ngung, sinh được 7 người con, hai trai năm gái. Ông là con thứ tư đồng thời là con trai út, cũng là người con duy nhất trong gia đình trước cách mạng được theo học từ trường xã đến tỉnh, trước khi Mỹ ném bom nhà máy xe lửa Trường Thi tháng 11 năm 1943 buộc ông phải nghỉ học ở năm thứ 3 trung học cơ sở.

Cả gia đình họ Hoàng (họ ông nội) và họ Trần (họ bà nội) ông đều có nhiều người tham gia cách mạng. Chú họ ông, Hoàng Văn Tâm, bí thư đầu tiên huyện uỷ Nghi Lộc bị địch bắn chết năm 1931; chú ruột, Hoàng Văn Mỹ, bị bắt năm 1930 đày lên Kon Tum đến khi phong trào bình dân lên cầm quyền ở Pháp mới được tha về.